Ông sinh ra trong một gia đình trí thức ở làng Nhuận Ốc, xã Khánh Cường, huyện Yên Khánh, tỉnh Ninh Bình, Việt Nam. Bố ông là Bùi Văn Thiệp, một nhà tân học, từng học Trường Bưởi và Trường Cao đẳng Pháp chính Hà Nội, ra làm quan đến chức Tuần phủ Thái Nguyên, rồi Tuần phủ Phúc Yên lúc trước Cách mạng Tháng Tám.

Thuở nhỏ, bên cạnh việc học tiếng Pháp, ông còn học chữ Hán đến mức đọc hiểu bộ tiểu thuyết cổ điển Tam Quốc chí diễn nghĩa.

Theo gia đình sang Pháp từ năm 1950, khi mới 15 tuổi, gần cả cuộc đời sống nơi đất khách quê người, ông vẫn sành tiếng Việt, không chỉ trong lời ăn tiếng nói ngày thường, mà cả trong văn chương nghị luận, tranh biện hay trần thuật, hồi ký, tùy bút, tiểu phẩm.[2]

Năm 1959 ông bảo vệ luận án tiến sĩ tại Đại học Paris với nhan đề "Sur quelques problèmes d’estimation concernant une chaîne de Markov",[3] đây có lẽ là luận án tiến sĩ đầu tiên về ngành xác suất thống kê của một người Việt.

Năm 1962, ông tiếp tục bảo vệ thành công luận án tiến sĩ quốc gia về khoa học toán học năm 28 tuổi. Luận văn ông có nhan đề "Estimations pour des Processus de Markov".[4]

Sau đó, ông được bổ nhiệm làm giáo sư Đại học Lille (1963–1969), rồi giáo sư Đại học René Descartes (Paris 5) từ năm 1969 cho đến khi về hưu. Ông là một trong số rất ít người Việt sớm được công nhận chức danh giáo sư đại học ngành toán ở Pháp nói riêng, cũng như ở phương Tây nói chung[2].

Năm 1970 ông đã trở về thăm quê hương, làm việc với Ủy ban Khoa học Nhà nước, đến năm 1981, ông làm trưởng đoàn của đoàn trí thức Việt kiều tại Pháp về nước theo lời mời của Đại tướng Võ Nguyên Giáp.[1]

Ngay từ năm 1988, khi công cuộc Đổi Mới vừa bắt đầu, ông đã đứng ra sáng lập Trường Đại học Thăng Long tại Hà Nội, trường đại học dân lập đầu tiên ở Việt Nam không xin tài trợ của Nhà nước, về giảng dạy và quản lý theo quan niệm mới, phù hợp với yêu cầu của xã hội và tình hình quốc tế. Trong những ngày đầu, vợ chồng ông phải dành một phần tiền lương của mình ở Pháp để gửi về nước. Ông bà đã thành lập tại Pháp một Hội Tương trợ Đại học Pháp – Việt (Amitié Universitaire France – Vietnam) để quyên góp tiền bạc, vật dụng từ các cá nhân, đoàn thể bên Pháp gửi về, giúp trường trang trải các chi phí và hỗ trợ các học bổng miễn phí.

Trong nhiều năm, GS. Bùi Trọng Liễu tham gia Ban chủ tịch Hội người Việt Nam tại Pháp, làm chủ tịch Hội Khoa học Kỹ thuật Việt Nam tại Pháp.

Ông mất ngày 5 tháng 3 năm 2010 tại Bệnh viện Antony, ngoại ô phía Nam Paris, Pháp.